1936年2月至1937年9月，马辉任陕甘支队红一军团一师司令部通信主任、侦察参谋。

1937年9月至1938年2月，马辉任八路军第一一五师独立团特务连连长。

1938年2月至1940年10月，马辉任晋察冀军区第一军分区涞源支队支队长、一团三营营长、特务营营长、骑兵营营长。1938年春，马辉任晋察冀边区一团三营营长。当时，他染上了疟疾发高烧，分区令他速返冀西参加反“扫荡”。在过平汉铁路时，马辉忽然听到日寇装甲车的“呜呜呜”声。他躺在担架上指挥部队向装甲车突袭，吓得鬼子赶快逃走。此后，他率部在边区打伏击、除汉奸，被敌人称为“马太君”。1938年7月，千余名鬼子到边区来“扫荡”，时任骑兵营营长的马辉率部设伏，在战斗中，消灭敌人100余人。

1940年10月至1942年2月，马辉任晋察冀军区二十五团副团长。1941年春，部队缺粮，为解决燃眉之急，马辉又带领部队去袭击鬼子的运粮队，缴获大批的骡马和粮食。

1942年2月至1944年10月，马辉任晋察冀军区第一军分区第二区队区队长。

1944年10月至1945年10月，马辉任晋察冀军区第一军分区副司令员兼参谋长。他先后参加了平型关战役、黄土岭战斗、百团大战、狼牙山战斗等战役战斗。

1945年10月至1946年，马辉任晋察冀军区冀察十旅旅长。他参加了雁北战役、察南战役等战役。

1946年至1947年11月，马辉任察哈尔军区独立第四旅旅长。1947年3月，为迎接全国战略大反攻，马辉奉命率部挺进察南，开辟解放区。在解放区，马辉放手发动群众反击敌人。为巩固解放区，马辉在三关之口的口前村设伏，袭击敌二八〇团的加强连，毙敌30余人，俘敌120多人，缴获大小枪炮100多支（门）。后来，他又率部接二连三打了胜仗，振奋了察南人民必胜的信心，为解放察南奠定了坚实的基础。

1947年11月至1948年9月，马辉任察哈尔军区第一纵队三旅旅长。他参加了保北战役、石家庄战役等战役。

1950年9月，马辉毕业于华北军政大学。

1950年9月至1952年9月，马辉任中国人民解放军第二十兵团中国人民解放军第67军二〇一师师长。

1952年9月至1955年3月，马辉任中国人民志愿军第67军副军长。抗美援朝时期，马辉获朝鲜二级国旗勋章、一级自由独立勋章。

1955年3月至9月，马辉任中国人民解放军第67军第一副军长兼参谋长。

1955年9月，马辉被中央军委授予少将军衔，荣获二级八一勋章、二级独立自由勋章、一级解放勋章。

1960年夏至1964年春，马辉任河北省军区副司令员。

1964年5月起，马辉任河北省军区司令员。

1965年10月至1967年1月，马辉任中共河北省委常委。

1967年1月至1968年2月，马辉任保定驻军联合支左领导小组成员。

1968年2月至1980年初，马辉任河北省革委会副主任。其间，1968年3月至1971年2月任省革委会党的核心小组副组长；1971年5月至1976年10月任中共河北省委书记（当时设有第一书记）；1976年10月至1979年12月任中共河北省委常委。在1963年海河特大洪水的河北抗洪抢险和1976年的唐山大地震中，他都是夜以继日地为灾区恢复生产、重建家园而忘我工作。

1980年2月至1983年4月，马辉任河北省人大常委会副主任。

1980年12月至1982年10月，马辉任北京军区副司令员兼河北省军区司令员。

1982年6月至1983年3月，马辉任中共河北省委副书记。

马辉还是中国共产党第九、十、十一、十二次全国代表大会代表，十一届中央委员会委员。

1988年7月，马辉被授予一级红星功勋荣誉章。

1998年4月19日，马辉因病在北京逝世，享年83岁。

在长征路上的四川省叙永县，四川军阀刘文辉部队强势堵截红军前进。马辉当时任红一军团二师五团团部参谋。为了打通前进的道路，红军出击攻城。敌人占据地理位置优势，居高临下，从城墙上用冲锋枪射击。密集的子弹飞向马辉和他的战友，其中不少子弹不断地从地道枪口飞进来，有两颗子弹打准他，一颗打在肩膀上，一颗打在嘴角上，嘴角被炸开的子弹打穿了。剧烈的伤痛使他身不由己倒下去，想站起来却没有力气，战友们即刻把他扶下战场。红军的医疗条件极端差，卫生员只能极简单地给他处理，不可能有条件进行嘴角的手术治疗。他留下残疾了，从未有过的疼痛摧残着他，喝水得吸着喝小口，吃饭只能小口给嘴里觅进去，说话漏风，吐字不清楚。时间长达四五年。1939年10月中旬，白求恩同志来到了马辉所在的晋察冀军区一分区，给马辉做了嘴的整形手术方案。手术需要分开步骤做两次，很是成功，但还是留下了刀痕。因此，战友们送他一个绰号“马豁子”。白求恩大夫本来答应为他做两次整容手术，使他恢复正常，但只做了一次，白求恩就牺牲了。

1934年10月，红一军团二师五团侦察参谋马辉，随军踏上了长征路。12月14日，红五团攻克贵州黎平。第二天凌晨，马辉奉命率领侦察排30余人前往剑河侦察敌情。出发前，师首长对马辉说：“马参谋，你们不仅要侦察清楚敌情，还要设法为后续部队筹点粮，安排好营房。”剑河是个较大的偏僻穷困的山城，虽属国民党政府统治，但国民党中央军是个啥模样，谁都没有见过。可是当地的反动统治者却十分残暴，豢养了许多警察，作为其盘剥压榨百姓的工具。为了对付这帮家伙，马辉巧设计让侦察排装扮成国民党中央军，自己扮作副官，朝剑河奔去。剑河是伪区公署所在地。马辉率领侦察排战士直朝区公署走去，门口值岗的警察，见30来人荷枪实弹，大摇大摆地过来，忙迎上前去，马辉问道：“你们区长在不在？”“在，请到里边坐”，值班警察忙答话。穿过院子，走进堂屋，一个怀抱着铜火炉，仰头躺在椅上眯着双眼、吸着大烟的区长，见马辉他们进了屋，赶忙站起说：“兄弟我是区长，诸位远道而来，不知有何贵干？”马辉说：“我们是中央军先头团，奉上司命令来追剿共军，今晚部队要在这里宿营，赶快准备住房和粮食。”听说是中央军,区长忙叫人端茶送水,备菜做饭,露出一副奴才相。马辉坐定说：“这里有民团吗？”“没有，有一个20多人的警察所。”“所长在吗？”“在，我着人找来。”正说着，肥头大耳的警察所长得到消息赶来了。一番寒喧后，马辉问道：“这里治安怎样？”“糟透啦！”穷鬼们得到消息说红军进入贵州，觉得有靠山啦，起哄嘞。侧面了解到敌情与民情，马辉又把话题转回到住房与粮食上来。区长说：“房子多得很，打扫了就可住。粮食嘛，所长有办法。”所长忙说：“粮食包在我身上。中央军不辞劳苦围剿共军，理所当然要酬谢。一会儿我撒下人马，挨家挨户去筹措。”听说到百姓身上刮，马辉窝着一肚子火，借题发挥道：“扯乱弹！临时征粮，误时间又风声大，暴露了军情，影响行动计划，谁担当得起！”所长献媚不成反遭责备，忙说：“那就打开咱们的粮仓，向中央军献粮吧。”“粮仓都是稻谷，要人碾啰！”区长接了话题，所长愣了。马辉抓住时机，笑着对所长说：“不是有二三十位弟兄吗？何不辛苦他们。”“好好！我就去召集他们干！”所长觉得献忠的机会又来了。区长也忙于开粮仓去了。马辉乘隙布置了下一步行动。夜已深了，警察所长跑来报告谷子碾完。马辉说要对弟兄们讲几句话，以表谢意。听说要讲话，以为必受奖励。所长忙将警察们集合在区公署院内，区长也陪着笑脸站在队伍前。马辉清清嗓音大声说：“你们所长介绍，大家正在积极维护社会治安，准备迎接中央军，为中央军出力。”听到这，警察所长得意的小眼眯成了缝，马辉把话题一转，高声道：“可是中央军大无能，被红军打得落花流水，现在站在你们面前的就是红军！”话音刚落，战士们已握枪将其围住，警察们顿时呆若木鸡，所长与区长筛糠似地哆嗦不停。这天，马辉率领侦察排，没费一枪一弹，不仅俘虏了20多个警察，获得了20多支枪，而且为后续部队筹备了粮食，安排了住宿营房。

打鬼子，物资很少有过充足的时候。一些重要物资的缺乏，临战时就会造成战场尴尬。1943年，日军紧缩兵力，固守据点，大肆修碉堡，挖封锁沟，垒封锁墙，架铁丝网。仅龙华县境内，到1943年8月，大据点有十六个，堡垒有六十六个。这些碉堡基本上是用石块和砖头砌成的，又厚又高，很坚固。攻打这些碉堡，对当时的部队，尤其是地方部队来说很困难。没有炮，没有炸药，手榴弹炸上去跟蚊子叮一口没区别。好多次部队打得敌人落荒而逃，但这些家伙往碉堡里一钻，吊桥一拉，门一关，眨眼就从死狗变火狗，一个个神气活现。伪军在那里呱呱叫：“哎，土八路！有能耐上来，上来呀！你能把这炮楼炸倒喽，我们就缴枪。”日本兵站在一边跟着发出猫头鹰一样的笑声。战士们气炸了肺，但无可奈何。马辉下了死决心，非搞来炸药把这些碉堡炸个底朝天不可。但弄炸药谈何容易，就是有，也是黑色炸药，但炸碉堡非黄色炸药不可。到哪里去弄呢？马辉不是没有一点底。他心里有数，办法就是找敌人开口要。只不过这回，像炸药这种金贵的东西，要起来比较麻烦点，但不是要不来。马辉说的敌人，不是伪军，可以找伪军，但伪军手上很难有这种高级货，也不是端着刺刀的鬼子，鬼子蠢气冲破了天也不会送炸药给八路军来炸自己。马辉要找的是一种特殊的敌人——日商，更直接地说，就是第二区范围内的日本矿主，特别是涞源的石棉矿主。石棉矿当时在国际市场价格很高，开采石棉有巨利可图，涞源富含石棉矿，但被日本人霸占了。在长期斗争过程中，第二区队与这些石棉矿主形成了一种奇妙的关系，既彼此敌对又联系紧密。找这些矿主要东西，马辉驾轻就熟。他摸透了这帮人的心理，对他们是非打不可，但每次动手既打得骨头痛，又不至于让其致命。最经常的做法是，袭击他们的运输队，把石棉矿往山沟里一倒，装矿的袋子拿回去做衣服。矿主挖得了矿，运出去却是个大问题。时间一长，一个个就顶不住了，纷纷找关系找第二区队“拉关系”“交朋友”，送洋布等东西。第二区队认准了这些日本矿主自身是座富矿，也故意放过几次，或是不在涞源打，跑到蔚县去打。因为有了这些“关系户”，第二区队的日子相比其他艰苦地区，要有滋有味得多。他们人人有新衣服穿，过年过节还有可收“礼”，要是缺什么东西，特别是市面难以买到的，就找他们要，布匹、纸张、药品、电池等，都要过。有时候矿主们来了情绪，对要的东西不答应，凡是这种情况，马辉就是一个字“打”。打过一次两次运输队，矿主马上就老实了，乖乖地把东西送来。虽说在要东西方面从未失过手，但马辉并不认为日本矿主们这回会愿意给他黄色炸药。这种东西属于鬼子严格管控的军事物资，要弄出去极为不易，日本矿主们也不傻，知道马辉要过去是用来炸日本人的，更不乐意了。特别是他要的不是一星半点，而是几千斤，光这个量，就足以吓倒任何一个矿主。事实上，也不是随便哪个日本矿主吐得出来这么多黄色炸药的。那么有没有一个比较省事的办法，比如说通过矿上的地下组织，发动工人，采取蚂蚁搬家的方式来获取黄色炸药？关于这点，马辉直接就否定了。矿工们每回领取炸药，量少，用几棒就领几棒，多一点也领不到，而且日军对出入矿山的工人搜查极严，上下班过门岗时都要搜身，一颗铁钉都带不出来，炸药一类的东西就更不要想了。武力夺取？不是不可以，但矿上敌人力量不小，且盘踞要地，一旦打起来，损失不会小。即使能多到一定数量的黄色炸药，这也是个不划算的买卖。一番盘算下来，马辉的决心下定了，就找日本矿主要，而且一定得要到手。他相中的是在涞源烟煤洞开石棉矿的一家公司，叫寺田株式会社。为什么是这一家日本公司，而不是同在烟煤洞的另一家叫谦野株式会社的石棉矿公司呢？原因有很多，其中很重要的一条，是我方在寺田公司有强大的内线，这些人在获取炸药的过程中均起着极为关键的作用。马辉首先叫矿上的头面人物王德忠找寺田公司的小头目木原，把他的意思递了过去。王德忠木原当然不想给，采取了敷衍的办法，说很为难，打发了这边一些边区票，意思要马辉拿着钱去别处买。木原不这样做，马辉心情还好点，他这么一弄，马辉就很不高兴了。边区票是晋察冀边区银行发行的，没法在边区以外使用，再多的边区票也无法买来黄色炸药。想这么打发马辉是不可能的。边区票他要了，上缴军分区，炸药继续要，一要就要到底。还是叫王德忠传话。为什么老是找王德忠？因为他是内线，是组织派进寺田公司的，在矿上有一定的位置，说话也有影响力。王德忠是个化名，他原名胡敬义，燕京大学毕业，来石棉矿之前一直在做敌工工作。在寺田的矿上，除了王德忠，还有好几位内线，如李秉汝和陈德玉。陈德玉是寺田公司大头头大山的勤务人员，整天围着他转，寺田仓库的钥匙就在陈德玉身上。王德忠把话明白无误告诉木原了，木原也不打马虎了，直接拒绝了。但这事不是他不想给就不给了的。马辉立即派队伍袭击寺田的运输队，并且是连续袭击。寺田的寺田的石棉矿就成了一堆运不出去的废石头。寺田的大头头寺田大山受不了了，派木原找到王德忠，与第二区队这边约定在清水河谈判。谈判不顺，整整进行了一天。木原抱着滚刀肉的态度，不管你说好说歹，一个劲赔笑脸，说好话，翻来覆去两句话，“矿上炸药不多不够用”，“把炸药给了八路军，我们要死啦死啦的”，就是不肯给炸药。一天谈完，什么结果也没有。王德忠就以中间人口气摊牌了，说八路军有言在先，如果矿上不给，他们也不要了，不过今后矿上开出的石棉怕也是白扔，一袋也别想运出去。“而且......”王德忠最后放出重话，“把八路军惹急了，你今天能不能回去也是个未知数。”木原不说话了。沉默良久后，终于答应了第二区队这边的方案。但这事还只是开了个头。寺田公司答应给了，炸药你还得能从矿上运得出来。第二区队对护矿敌人了如指掌。在烟煤洞外围驻有蒙疆伪军李守信的一个团，并在矿外围的大东梁、辘辘把尖、霸王尖驻有三个大碉堡，约有两个连。对这部分敌人，马辉不是太担心。他有的是办法避开这些伪军。难处在于矿区护矿的一百多日军。日军在烟煤洞正南的照山驻有一个碉堡，西南的两道梁上有两个地堡，北面的的靠山是中心堡垒。中心堡垒西面山脚下是日军的板房和用于居住的石头房。木板房北面的小山坡上，有一门三八步兵炮，石头房北面山梁上有一门九二重机枪。寺田公司的办公室就在大堡垒南面的山脚下，离大堡垒只有七八十米远。办公室背靠山包，西北角是个猪圈，里面不关猪，关的是抓来的老公和“犯纪律”的劳工。办公室前是仓库，分东仓库和西仓库，两仓库南山墙之间是一道石头墙，石头墙上有道铁铁栅门，布局像是个转角四合院，炸药就放在东仓库里。了解敌情并不能保证偷运炸药任务的顺利完成。第二区队仔细研究了敌情好地形，抽出一连、二连两个连来执行任务，准备一旦行动被敌人发现，就用火力抢运。什么时候行动呢？马辉特意选了一个北风呼啸的夜晚。这天风不是一般的大，刮得人睁不开眼睛，沙石随风打转，山上的桦树林呼啦呼啦地狂响。天上星光黯淡，夜色浓得像墨一样化不开。简直就是老天按照马辉的心愿，特意设计出来的一个夜袭的好天气。马辉率着两个连在黄昏时刻出发。因为常在这一带活动，对于这里的山道、地势，战士们烂熟于心，真是可以闭着眼来回走。为了避免狗叫暴露目标，部队绕开村庄，穿山沟，怕山梁，一路无声潜行至矿区附近。内线李秉汝早在矿区外等候。在他的引导下，部队在矿区里一路畅通无阻，过铁栅门，进四合院，一直摸到东仓库外。护矿日军没有丁点动静。寺田公司的两位头脑寺田和木原此刻在哪呢？担心吃罪不起，这两位“上庄的开路！”，早躲到矿区外去了。走时，大山什么都不顾，唯独没忘了嘱咐拿钥匙的陈德玉，要他告诉八路军，千万别忘了把库房门的锁砸坏。有了这把破锁，他就对上推脱，说炸药是八路军抢走的。攥着钥匙在仓库门外等部队的陈德玉，等得把钥匙都攥出了汗。部队一到，他马上开门，战士们一个接一个进去，一个接一个出来，每人肩着一箱炸药，风一样消失在黑夜里......马辉心情很好。他没有去仓库看看，而是进了寺田的办公室，在那里好好参观了一下，走的时候，把寺田的相机和小花口手枪也带走了。眨眼功夫，这边炸药就搬完了，不多不少，正好是约定的一百箱。同样按照约定，砸坏了门锁，仓库的，还有寺田办公室的。一切妥当，马辉握了一下陈德玉的手，随部队大步离去。走出差不多一里多地了，马辉才命令部队向着石棉矿打了几梭机枪。他一点都不担心日军，这样北风狂啸的夜晚，他们要出来，最早也得到天亮了。马辉把从寺田要来的黄色炸药，大部分交给了军分区。留下的虽只有小部分，但在第二区队以后的战斗中发挥了很大的威力。他们把主良伪军的炮楼炸了一条大缝，敌人吓坏了，马上撤进觉山坡据点。以后很多次吓破敌胆的爆炸，都是这一次搞来的TNT炸药在发挥威力。搞到炸药以后，马辉并没有松手，缺什么就找日本矿主要，勒着的绳子拽在他手上，他想什么时候紧点就拉一下绳子。别的日本矿主如何不清楚，寺田大山可被折磨得受不了。他垂头丧气地从这片土地溜回老家了。走的时候，寺田望着矿上的房子，说：“我们办法的没有，开路开路的，房子，马太君休息休息的干活。”这话通过陈德玉传到了马辉的耳朵里，他估计都要笑坏了。

“百团大战”第二阶段中，晋察冀分区前线指挥部杨成武司令员命令马辉去受领任务。杨司令员指着地图上的一个红箭头说，准备把你们调到这里去。那里原来是涞源县和蔚县往来之隘口——九宫口的马头山。九宫口的马头山海拔1900米，成了来往蔚县和涞源县的必经关口。杨成武司令员交代给马辉的任务是阻止蔚县的敌人增援，保证我军一团、二团、三团正面集结，攻打涞源县三甲村和东团堡镇。杨司令员要求马辉部队要像钉子一样，死死钉在九宫口，不让敌人前进寸步。马辉领了任务，经过四天急行军，第五天上午，部队赶到了九宫口。马辉马上组织连以上干部去看地形，顺着牧羊小道爬上了马头山山顶，隐蔽在半人高的蒿草丛中。这时往下一看，只见马头山四周峰峦重叠，沟壑交错，一条弯弯曲曲的公路随着山的坡度盘旋而下。在半山腰处，有一个日军炮楼，隐隐约约地看到炮楼上还有哨兵在活动。马辉和大家商量了一阵，决定由一连控制马头山前的小山包，三、四连分别坚守在东西两边的山头，二连留作预备队。各连明确任务后，又对三连长金明鉴说，你在占领阵地前，必须先搞掉敌人那个炮楼，你带领一个排，从西面包抄上去，以突然的动作，迅速炸毁这个障碍物。金连长答应了一声“是”，便向连队跑去。一切布置妥当，马辉刚回到指挥所，突然传来“轰隆！轰隆！”两声巨响，不一会儿，只见三连长气喘吁吁地跑来说，报告！敌人炮楼被我们端窝儿了。马辉立刻下令通知各连迅速占领阵地。这时，已到下午2点，马辉站在山头上用望远镜观察，只见公路上冷冷清清，毫无动静，有的战士不耐烦了，不时抬头张望。马辉再次下令通知各连要耐心等待，防止过早暴露自己。下午3点，北面公路上突然腾起一股尘土，接着隐隐约约传来“呜，呜”的马达声，发现有五辆汽车，向山这边驶来，看样子是敌人的运输队。正在这时，突然有一只狗窜到公路上，踩响了当地民兵埋下的两颗地雷，地雷炸起的烟尘和轰隆声回荡在山间，敌人见势头不对，马上调转车头逃回蔚县西合营镇去了。第二天凌晨，从西合营方向开来了八辆汽车，每辆车上都载满了日本兵。汽车刚驶到马头山下便停止了前进。敌人全部跳下车，一个个瞪着傻眼，朝山头望了又望，估计敌人可能昨天发现了目标，今天特意来交战，妄图打通交通。不一会儿，敌人开始攻山了。战斗一开始就非常激烈，敌人凭借着武器优势，先用小炮轰了一阵，然后集中兵力向一连阵地疯狂进攻。一连长于明鉴指挥全连英勇阻击，连续打退敌人三次进攻，给敌以大量杀伤，但一连也有较大伤亡。这时，已近中午12点，为了粉碎敌人再次进攻，马辉从三连抽出一个排的兵力去加强一连的防守。奇怪的是，敌人遭我部猛烈阻击后，不但没再来攻山，而且于下午1点左右收容起残兵，尸首，又窜回西合营和蔚县县城去了。夜里11点，晋察冀军分区来电报，说三团在东团堡包围了日军一个士官教导大队，现正围而歼之，蔚县敌人肯定前去增援，要求马辉部一定要卡住九宫口，死死阻止敌人前进。马辉听完首长的指令，一下子搞清了为什么前一天敌人早早地撤退。果然，凌晨4点，敌人开来了大量汽车。狡猾的敌人诡计多端，强迫抓来的20多个老百姓脱下衣服，由他们穿上化装成老百姓，一窝蜂地向一连阵地冲去。战士们一时分辨不清楚，被迫停止了射击。等辨别出真假时，敌人已冲到了跟前，连长于明鉴一跃而起，端起刺刀就向鬼子刺去，全连战士怀着满腔怒火，立刻与敌展开了肉搏战。山下的敌人趁此机会一股一股地拼命往山上冲击。最后终因敌我力量过于悬殊，一连暂时放弃了阵地，撤到了三连的阵地上。一连阵地在马头山的前面被敌人占领后，三、四连的阵地受到严重威胁。一连长于明鉴极力要求带领连队夺回阵地，马辉再次做出部署。傍晚一连向敌人发起反冲击，马辉命令三连插向敌人的侧面，由重机枪火力全力掩护，从两边夹击敌人，日军支持不住，被迫后退，一连又趁势来了个冲锋，把敌人彻底打下山去。战斗进行了三天三夜，当地民兵也都组织起来破交通割电线，配合部队参加战斗。在后来的两天中，不甘失败的敌人，使出多方战役策略，都被马辉一一识破，部队又打退敌人四五次冲锋。第六天下午，分区传来捷报：“我军在东团堡歼灭敌人近200名。”捷报还说了一个细节，战役打到最后，日军30余人演出了日本“武士道精神”大剧：敌教导大队长甲田持着军刀左顾右盼，看到我军从四面猛攻上来，他哇喇哇喇地喊着，明白人马已经陷入绝境，再也看不见援军的影子，自觉待救无望，随即下令伤兵开枪互射而死，接着监督残兵从汽油桶倒出汽油，再引燃汽油跳入火海，最后是甲田自己自焚，成了一个黑鬼。至此，马辉部队胜利完成了阻击任务。

马辉得知，在蔚县麻田岭下的北山坡上有一栋钢架子房，驻守着日军。为防止八路军破坏公路，鬼子特意在这个山口处增加40多个日军，以配合南山上的伪军护路和转运军用物资。马辉立即向晋察冀军区领导报告，几位军区领导经过研究，觉得机不可失，说日军刚到，可以“欢迎”他一下。马辉为了心中有数，更有成功的把握，带着几个连队干部亲自到麻田岭查看地形。麻田岭位于蔚县的东南部，它和北面不远的九宫口马头山一样，峰峦陡立，峥嵘险峻。张家口通往保定的公路在两山之间的纵横峡谷中穿过。两年以前，日军就在路南的山坡上构筑了炮楼，平时经常有伪军一个连驻守。这次日军的钢架子房，架在路北峭壁上面的一个山坳里。马辉拿起望远镜观察，发现钢架子房深入地下一米多，而且四周还垒着一些大石头，显然是为了防冷和防风的。房子顶部有一个烟筒，看来里面还生了火。日军在北面，伪军在南面。伪军的炮楼比日军的钢架子房高出有一二十米。这一高一低可互为依托，互相支援。敌人的布局还很巧妙。但是，尽管敌人费尽心机，也徒劳无益。经过查看，马辉通知部队，把隐蔽接敌的途径选在钢架子房东面的两条山沟里。当时部队住在龙华县的南北城司，距离麻田岭200多里，途中不仅要钻山沟，攀悬崖，而且还必须翻越2000多米高的东甸子梁。所以，要打好这一仗，首先要攻克的难关是长途跋涉。首长经过商量，决定由马辉带领二连和三连执行这次任务。这两个连战斗力很强，部队的军政素质好，战斗情绪高昂。部队经过充分准备，满怀战斗豪情地从驻地出发了。经建城司，过安妥岭，出金水口，翻连巴岭，一气就干了120里。天渐渐黑下来了。部队经过一段快速行军，赶到了涞源县的北李庄，按计划在这里宿营，第二天翻越东甸子梁，直插麻田岭。东甸子梁是一条又宽又高又长的平顶大山梁，海拔2000米左右。寒冷的冬天，梁上的气温下降到零下40多摄氏度。当地群众一到冬天都不敢过梁。他们说“能上得了山，但过不了梁”。当地有这样一首歌谣：“甸子梁，高又长，大雪风暴似虎狼，飞鸟到此绕道走，自古神仙难过梁。”不料，第二天下起了鹅毛大雪。群众担心部队冻坏身体，热心地劝说不要上梁了。政委黄连秋对战士和群众说：“乌江，金沙江，大渡河我们闯过，4000多米高的大雪山我们越过，眼前这小小的一个山梁算得了什么！”同志们告别了好心的群众，出发了。快接近中午的时候，踏上了上甸子梁的征途。然而，甸子梁毕竟是甸子梁，它和长征时爬过的雪山不同。长征路上的雪山虽然高大，但当时的节令是春末夏初，而现在是滴水成冰的隆冬季节。所以，必须高度重视，防止冻坏。马辉找来两个连队的指导员，让他们仔细检查一下部队的服装，要求一定要做好充分的准备，不准冻坏一个人。果然上了山梁，确实冷得要命，风卷着雪粒，打在脸上，针扎似的生疼。西北风如同小锥子往骨髓里钻。大家虽然都穿着很厚的棉袄棉裤，可被呼叫的风一吹，如同穿着单衣一样。不知是向寒冷挑战，还是歼敌心切，队伍越走越快了。这时忽然从队伍里传出一阵说笑声，一名战士说：“这里一马平川，真是天然的牧场，等抗战胜利了，我们可以来这里办一个军马场。”“办军马场不如植树造林，要是这甸子梁上覆盖着一层针叶松，简直比我们小兴安岭还美。”来自东北的三连一班长王友田说。傍晚的时候，部队翻过了甸子梁。战士们与风雪搏斗了五个多小时，个个仍然是精神抖擞，没有发现一个人冻伤，更没有掉队的。部队来到了麻田岭南面的一个小村庄，准备在这里稍加休息。情报站的同志们为大家准备了晚饭。老百姓听说要消灭山上的日军，个个喜上眉梢。村里的青年民兵马金坡主动提出当向导。其实，这里的地形马辉他们并不陌生，加上前两天又来察看过，可以说八九不离十。但为了更有胜利的把握，防止夜间发生意外，还是答应了马金坡的要求，由他为部队带路。经过向西一阵疾进，部队准确地进入了日军钢架子房以东的两条山沟。按预定方案，二连负责控制炮楼里的伪军，三连主攻日军的钢架房。三连长宗守礼和指导员姬长馥分别带着部队，一南一北朝钢架房迂回包围。战士们借着沟坎，步步向前接近。可就在宗守礼刚要发出行动信号时，有一个敌哨兵像“嗅”到了什么，猛然间端起枪，朝正南的方向张望。就在这一刹那，宗连长啪的一枪，把他打了个倒栽葱。战士们听到枪响，手中的机枪、步枪立刻吼叫起来，手榴弹也跟着向钢架房甩了过去。正在熟睡的日军被这突然袭击弄懵了，顿时大乱。大部分日军还在梦中就被击毙，有的虽然起来了，但来不及还手也跟着上了西天。只有两个家伙腿脚快，穿着衬衣提着枪从钢架房逃了出来，没命的朝西面大山跑去。一班长王友田向宗守礼请示：“我去收拾逃跑的两个日军。”“不用了，把这个功劳让给老天爷吧。老天爷为我们准备了这么个好天气，现在送给老天爷两个鬼子，也算我们的谢意。”“对！算他俩的时运不错，老天爷赏给他们一个笑脸儿去见阎王爷。”马辉接茬宗连长的话，一边说一边走了过去。“怎么还带笑脸儿？”王友田不解地问。“这还不知道，冻死的人都是笑脸儿（冻死的人的面容类似他在笑）。”宗连长替马辉做了回答。这时指导员姬长馥向马辉报告说：“日军全部被歼，只是有一件事没办好。”马辉问：“什么事？”姬长馥指了指钢架房的布篷顶说：“都打成窟窿了，演戏不能用了。”马辉这才想起来，出发以前，晋察冀剧社的同志曾嘱咐想办法弄一个完好的帐篷，留着演戏用。马辉扭头看了看帐篷，满是枪眼儿，有的被手榴弹炸得着了火，还在冒烟，散发出一股焦糊味。马辉说：“快打扫战场吧，等回去向剧社的同志解释一下，争取下次搞个好的。”这一仗，缴获了不少东西，因为东西太多，马辉命令二连立刻从伪军炮楼那边过来，帮助搬运。二连刚刚离开那里，忽然从伪军炮楼里打出一阵机枪，马辉说：“这是伪军们的一贯拿手戏，看到主子全部丧命，总不能没有一点表示吧。”又说：“不过，这些蠢货们是绝对不敢走出炮楼半步的。”打扫完战场，马辉部队乘着夜色，扛着胜利品，兴高采烈地走上了归途。马辉还有过许多惊险的经历。一次，他正开了门迈步出院，突然听到街上喊“鬼子来了”，房东大婶一把拉回他，让他钻进库房，压上草，还不忘顺手递给他一个窝头。搜查“八路”的日寇和伪军进院，一阵搜寻，房东大婶巧妙地应付走了敌人。

马辉部队转战到蔚县，在蔚县暖泉镇一带打了几仗。1945年暖春的一天清晨，太阳刚照到东山尖上，马辉部队吃过早饭，即向涞源县、蔚县和广灵县进发。下午五点多钟，部队赶到蔚县南山七井寺、果庄子一带宿营，并做好攻打暖泉镇的准备工作。暖泉是个很大的镇子，有一两万人口，是蔚县的八大镇之一。距离蔚县县城40华里。暖泉镇守军有伪军一个团，团长叫宗孝，外号宗秃子。这家伙过去是个赌棍，开过赌场，经常和一些不务正业的人鬼混。后来他弄到三五条枪，便拉起二三十个人的队伍，自称司令。1942年日军“扫荡”时，委任他为保安团长，让他固守暖泉镇。他仗着有日本人撑腰，到处敲诈勒索，干尽了坏事。当初，我军派人对他进行过教育，让他脱离和日寇的关系，回到人民这边来。但这个家伙非常顽固，不但不听劝告，还痛骂我军派去的人员。他死心塌地地为日寇服务，不可救药。那天晚上，暖泉镇唱大戏，我军侦察员打算借宗孝看戏之机干掉他。可刚要下手的时候，突然意外发生了。戏台的一个角上“叭”的响了一枪， 宗孝听到枪声，立即对准汽灯“叭！叭！”两枪，趁着灯灭天黑，钻进炮楼逃掉了。根据最新敌情，马辉和龙道权副政委把三团团长郑三生、政委郑旭煜、广灵支队长李尚德和涞源县支队领导找来，共同商量攻打暖泉镇的对策。他们说：“这个镇子易守难攻，我们缺少重炮， 强攻不容易奏效，我们可以以一部分兵力围攻暖泉镇，另以主要兵力先拔掉西庄头（下宫村的西南，附近就是暖泉镇）、下宫村（附近就是暖泉镇，南与涞源县接壤，西与广灵县、灵丘县毗邻）三个炮楼，然后再根据情况进攻暖泉镇。”马辉觉得有道理，赞成地说：“这个办法很好，就这么办！”于是，马辉让三团负责攻打西庄头村两个炮楼，涞源支队攻打下宫村炮楼。广灵支队包围暖泉镇，并佯作进攻的架式。三团在郑三生和郑旭煜的带领下，以凌厉的攻势，以不到两个小时的时间，便拔除了西庄头村两个炮楼。涞源支队随即拔掉下宫村炮楼。听了他们的报告，马辉打心眼里高兴，心想，三团不愧为一只威震敌胆的常胜军。三团是当时分区的主力团，从上到下很能打仗，特别是在打敌人据点、炮楼的战斗中，他们想出过各种各样的新鲜花招，夺取了胜利。在拔除保定市西郊江城据点时，他们的新鲜花招是“嫁娶新媳妇”，锣鼓喧天，鞭炮声声，骗得日本鬼子和伪军麻痹大意，纷纷离开岗楼看热闹，“新媳妇队伍”是清一色的三团指战员，待敌人走到跟前时，个个掏出枪，打得敌人死伤过半，其余的全部俘虏。攻打暖泉镇的第二个计划讨论出来了，具体是三团攻打暖泉镇，涞源支队和广灵支队分别负责阻击蔚县县城和广灵县城的援敌。夜晚，三团长郑三生和政委郑旭煜的队伍很快进入了阵地，夜间11点钟，攻击开始。爆破组的同志连续送上去三次炸药包，虽然都在围墙根儿爆炸了，但只炸下一些土块，没有把围墙炸开。敌人火力相当猛烈，战斗持续了三个多小时，最后把敌人都赶到了东北角的三个高墙大院里。这时天已快亮，蔚县城和广灵县城都开来了增援部队，为了防止不必要的牺牲，我军暂时撤了下来。第二天，我军几位领导又一次仔细地研究了攻打暖泉镇的计划，一致认为，对这样坚固的据点，不能硬攻，只能“引蛇出洞”，在运动中予以歼灭。于是我军绕过暖泉镇，去围困广灵县的直峪口南沟和邵家庄据点，目的是引出广灵县城和蔚县暖泉镇的敌人去增援，在途中伏击歼灭这些敌人。直峪口南沟是一条长十多里的山沟，公路从沟的东山上通过。两边高大的山峰，有的像刀切一样陡立。敌人经常有几辆、几十辆汽车经过这里。1937年10月，我军在冯家沟那次著名的伏击日寇的运输队，距此只有五里多路。因为这一带位置重要，所以敌人对此地特别重视，防守相当严密，除去沟门口有据点、炮楼，封锁进出山外，沟里边邵家庄的草垛山上还设有据点，一溜排着三个大炮楼，直接控制山下的公路。我军察看和分析完地形和敌情以后，决定由三团的一连和二连两个连队，各带两挺重机枪，分别围困沟门口和草垛山上的炮楼。要求他们既要狠狠地打，又要有点虚张声势，目的是牵动广灵县城和暖泉镇的敌人前来增援。广灵县支队埋伏在暖泉镇和直峪口之间的西加头、西庄头一带，准备歼灭暖泉镇出来增援的敌人。涞源县支队埋伏在暖泉镇和蔚县县城之间的南山根一带，准备阻击蔚县增援的敌人。我军三团主力部队埋伏在直峪口南面的东宜兴、西宜兴两个村子里，准备侧击由广灵县城出来增援的敌人。各部队按照部署很快进入阵地。草垛山上的敌人，自以为炮楼修在山顶，居高临下，易守难攻。但我军发现他们有一个致命弱点，就是山上没有水吃，吃水需要到山下的邵庄去担水。以往敌人都是逼迫村里的老百姓为他们送水，从被我军包围后，群众不但不给送水，反而在平时敌人打水的水泉里扔进去好几条死狗，再灌上几担屎汤。头一天，没发现敌人有什么动静。到了第二天，他们熬不住了，分成几个组窜出来抢水，但都被三团二连的机枪扫回去了。草垛山炮楼有一个伪军小队长名叫王武，原来是广灵县支队的战士，后来投降当了汉奸。他堵住炮楼门口，不让抢水的伪军逃回，还破口大骂：“你们这些胆小鬼，一个一个的都是饭桶，看老子的，出去准能挑回来！”我们的战士点着他的名字：“王武，你有种出来试一试，保管你的脑袋开花！”这小子果然出来了，刚下山几步，只听“呱啦”一声枪响，王武连人带桶栽倒在那里不动了。原来战士们在他出门时就瞄准了他的脑袋。三团一连的办法更绝，战士们故意放出敌人下山打水，专等他们挑水上山时，再开枪进行活靶子射击比赛。通过这种手法，他们打死敌人20多个。战友们说：“我们也发点善心，叫敌人见阎王之前先喝足了水，别让他们成为‘渴死鬼’。”我军连续围了五天，敌人好像鱼儿困在沙滩上一样，据说敌人渴得连尿都抢着喝了。到了第六天早晨，广灵县城的敌人果然出来了。我军需要的就是敌人走这步棋，敌人先用几十名骑兵在前面开路，后面尾随着二百多步兵。过了近半个钟头，敌骑兵先进到通往邵家庄的山沟里。为了不被敌人发现，战士们利用短墙、土堆、土坎儿、草垛作掩护，不声不响地等待机会。敌人自以为没发现情况，大队人马很快跟了上来。等到敌步兵全部进入伏击圈，攻到半山腰时，团长郑三生大喊一声：“打！”指战员们一跃而起，对敌人进行了猛烈袭击。顿时，敌人队伍大乱。战士们从敌背后、从侧面冲上去，同正面阻击的二连一起南北夹击敌人，很快歼灭了四五十个敌人。其余的敌人见势头不对，调转头来拼命朝原路逃走。三团战士们奋起直追，又打死打伤30多个。被包围在直峪口南沟和草垛山炮楼里的敌人，开始看到来了救兵，想趁机打出来，里应外合地逃走，这恰恰是我们求之不得的。于是，我军有意让三团一连和二连腾开一条路，把敌人放进直峪口的沟里。后来敌人发现援兵被我军阻击，沟口又被堵死，无法逃脱，一个个乖乖地举手就擒。自此，暖泉镇成为四面楚歌的孤城，伪军宗孝一伙命在旦夕了。直峪口南沟战斗结束后，我军又一股气拿下了距离暖泉镇不远的留老疃村（阳原县）、加斗村（广灵县的加斗村在蔚县暖泉镇西南，距离10华里）、义泉岭（灵丘县）等据点。这样，壶流河西岸和广灵县北山广大地区均被我军收复，变成了解放区。

解放战争时期，马辉部队驻在保定涞水县，做着攻打保定易县的准备工作。忽然，冀察军区首长通知他们新任务：赶赴张家口怀安县渡口堡，歼灭那里的国民党傅作义部队。马辉率领部队昼夜兼程，先赶到下花园，在下花园乘坐火车，赶到张家口市的十三里营房。此时，从西向东的国民党傅作义部队的马占山部骑兵第五师主力，已抵近内蒙古的兴和县，抵近与兴和县接壤的张家口尚义县和怀安县的渡口堡一带。既然马占山的先头部队进驻到柴沟堡附近，那他的后续大部队会很快赶到，情况十分紧急。因为从柴沟堡到张家口距离太近，只要不到一天时间，马占山骑兵部队就能进了张家口，到那时候马辉部队必然被动，如果再去与马占山部队争夺这个城市，那就难以预料会付出多大的代价。于是，马辉部队急走带跑，以马占山部队做梦也想不到的快速西进怀安县柴沟堡。驻在柴沟堡的敌人自恃装备精良，思想上极为麻痹大意，加上情报不准，错以为我军距离遥远，也就跟没事似的。敌人哪曾算计过马辉部队风驰电掣般的速度。突然地听见枪弹声响起，才惊醒过来是解放军来袭了。敌人于仓皇中各自胡乱地抵抗了一阵，不一会就溃不成军，狼狈退却。马辉部队只一个上午将柴沟堡镇占据解放。冀察军区保卫部在柴沟堡建立俘虏营审查并改造俘虏，这中间有顽固分子企图暴动，被查出枪毙。挨了揍，敌人才察觉到是解放军主力部队临近，迅疾龟缩到了渡口堡。渡口堡位于怀安县西北部，柴沟堡西南20里，居于晋冀蒙三省交界处，素有“鸡鸣闻三省”之说。渡口堡于明朝孝宗皇帝弘治九年（约1497年）建造，城墙高大雄厚，城门坚固，易于防守，难以攻打。马占山部队利用城堡的有利地形，抢修工事，固守待援。马辉部队以及兄弟部队一起不给敌人喘息还手的机会，于晚上十点整，按照上级指示，指挥部队向敌人发起攻击。突击队几次攻城均未成功，伤亡了好多战士。当时的晋察冀军区第一军分区二十五团二连连长黄亚明回忆写道：四五次的冲锋与反冲锋，我军登城未成功，伤亡人员多，敌人用马号（骑兵用，能吹奏歌曲）吹着流行歌曲，以振奋他们的士气，打击我军士气。局面十分严峻，距离首长命令攻下城门不到一个小时了，只能“强攻”了。于是在城角的壕堑里紧急召集在城东北角的共产党员开会，说上级命令只能前进，不能后退，如果到天亮时咱们的人还不能下去开城门的话，几个团就进不来，我们就只有跟阵地共存亡了。现在，我们唯一的出路就是攻占东城门。全体党员一致表示，为了胜利，强攻城门，要东门，不要命，我们党员组成敢死队，夺取东城门。在我军的火力掩护下，又多次与守城顽敌拉锯似的展开争夺。后来一连排长张凯胜率领投弹组边投弹，边登城，协同二连利用手榴弹爆炸烟幕的瞬间，迅速登上城墙。东门城墙角上的战壕里已经摆满了双方的尸体和伤员，连站脚的地方都显得挤，一连仅剩下二十几个人。战士们进一步打开突破口，随即开了东门。一、二、三连相继冲入城门，冲入堡内，与敌人展开了逐院逐屋的刺刀战。

抗美援朝时期，荣获朝鲜二级国旗勋章、一级自由独立勋章。

1955年被授予少将军衔，荣获二级八一勋章、二级独立自由勋章、一级解放勋章。

1988年7月，被授予一级红星功勋荣誉章。

马辉在长期担任部队和地方领导职务期间，为推动部队、民兵的基层工作，为国防后备力量建设，为地方经济的发展，做出了贡献。